Prawda, że chwytliwy tytuł? Jeśli jednak spodziewasz się, iż wysnuję tutaj fabułę rodem z filmu Ex Machina, Oblivion, Terminator, Saturn 3 czy 2001 A Space Odyssey, to będę musiał Cię zawieść. Z resztą nie tylko Ciebie, ale wielu intelektualistów, których podziwiam, a którzy podzielają obawy przed ponurym scenariuszem najbardziej kasowych thrillerów science fiction. Ja jednak wychowałem się na epopei Star Trek i tak, jak jej twórca Gene Roddenberry, uważam że ludzie tworzyć będą dzieła swojego geniuszu z których będą dumni.

Moją uwagę zwrócił niemal paniczny strach co niektórych przed maszynami coraz liczniej wyręczającymi ich w kompetencjach wydawać by się mogło zarezerwowanych dla ludzi. Jeśli podzielasz ten strach, postaram się Ciebie przekonać za pomocą retoryki i niewielkiej ilości danych, iż jest on w większości przypadków nieuzasadniony. Natomiast nasza przyszłość będzie tak wspaniała, iż spoglądając w przeszłość, będziemy się zastanawiać, jak mogliśmy wtedy funkcjonować.

Pamiętam taki szkic z 2002, na którym siedzi zatroskany człowiek za stołem i skreśla kolejno kartki papieru, którymi wyłożony jest cały pokój, a na których napisane są zdania w stylu „Tylko człowiek potrafi prowadzić samochód”, „Tylko człowiek może posprzątać dom”, „Tylko człowiek potrafi skomponować uwerturę”, „Tylko człowiek potrafi tłumaczyć język” itd. Nie jest pytaniem, czy kiedyś wyrzucimy ostatni imperatyw ludzkich kompetencji do kosza, tylko kiedy to nastąpi. Widzimy na naszych oczach, jak to się dzieje z dnia na dzień. Jak mawiał ojciec teoretycznych podstaw współczesnych mikrokomputerów Alan Turing: „Pogląd, że maszyny są głupie i zawsze takie będą jest chowaniem głowy w piasek”. Na początku maszyny wyręczały nas z bardzo prostych, choć monotonnych lub wysiłkowych zadań. Gdy rozpoczęła się era komputerów, w czasach Turinga zaczęły wyręczać nas w myśleniu, a konkretniej w obliczeniach numerycznych. Ludzie obawiali się wtedy, że roboty (lata czterdzieste), a potem komputery i/lub roboty (lata sześćdziesiąte) zastąpią ludzi w ich zadaniach (ludzie staną się zbędni), a następnie się ich pozbędą w jakiś spektakularny sposób. Dzisiaj nasze roboty nie wyglądają już jak beczki na kołach. Są humanoidalne, potrafią chodzić, biegać, uprawiać sporty, rozpoznawać obiekty, pamiętać, uczyć się, rozmawiać, grać na instrumentach muzycznych, tańczyć i rozpoznawać emocje ludzi. Ludzie jednak boją się dokładnie tak samo, jak ponad pół wieku temu. Jest to dla mnie zdumiewające, ponieważ gdy Henry Ford na początku XX w. rozpowszechnił masową produkcję modelu T wprowadzając taśmę produkcyjną i części zamienne, przyczynił się do zwolnienia wysoce wykwalifikowanych robotników na rzecz niewykwalifikowanych oraz doprowadził do zapadnięcia się takich zawodów jak kowal. Mimo to maszyny jednak nie przejęły kontroli nad światem. Dzisiaj, gdy otwieramy paczkę z telefonem z którym porozumiewamy się głosem jak z innym człowiekiem wiedząc, że przyszedł ze zautomatyzowanej sortowni dostawcy, ze zautomatyzowanego magazynu sprzedawcy, wyprodukowany w zautomatyzowanej fabryce producenta, nie popadamy w panikę. Przecież to tysiące posad, lecz gospodarka się nie załamała. Jednak dziś znów słyszę te same argumenty, tym razem odnośnie autonomicznych samochodów. O tak… To jest nasz nowy strach – Tesla pozabija nas wszystkich. Jednym z takich argumentów jest założenie, że sprzęt może ulec awarii, a oprogramowanie nie działać poprawnie, co doprowadzi do urazu albo nawet śmierci jadących w samochodzie. Jednakże chciałbym zauważyć, iż dokładnie taki sam poziom zagrożenia stanowi winda, a mimo to najbardziej zagorzali przeciwnicy SI oddają swoje życie w ręce windy-mordercy, gdy tylko alternatywą jest przejście trzech kondygnacji schodów pieszo. Współczesne windy w ciągu swojej ponad 150 letniej historii zabiły całkiem sporo osób, a jednak nadal ludzie oddają całkowitą kontrolę nad swoim życiem maszynie po wciśnięciu przycisku. Lecz samochód w dosłownym tego słowa znaczeniu to przecież nowoczesna, wcześniej nieznana technologia, prawda? Nie prawda. Samochodowy autopilot jest rozwinięciem systemów znanych od kilkudziesięciu lat w awiacji i żegludze. Wsiadając na pokład Airbusa A320 miałem całkowitą świadomość tego, iż piloci siedzący w kokpicie praktycznie tego samolotu nie pilotują. Aby wykonać lot z punktu A do B nie jest potrzebny pilot. Wylądować z pomocą systemu ILS może osoba instruowana z wieży, która nie ma pojęcia o lataniu. Kiedy samolot wykonuje wzór ósemki nad lotniskiem czekając na swoje podejście, piloci również się nudzą i obserwują przyrządy. Są tam po to, aby przejąć kontrolę i odpowiedzialność w razie sytuacji, która będzie tego wymagać. Czy odstraszyłem Cię od podróży samolotem? Nie sądzę. Kiedy to piszę, po drogach jeżdżą już tysiące samochodów marki Tesla z oprogramowaniem umożliwiającym poruszanie się w trybie zautomatyzowanym i mamy już pierwszą ofiarę śmiertelną. Tak, jak na ogół w przypadku lotnictwa bywa, tak i w tym przypadku błąd popełnił człowiek, który zignorował ostrzeżenie systemu i nie zareagował przez 7 sekund na zagrożenie. Podobno nie był w ogóle skupiony na jeździe. Wiemy jednocześnie, że wypadkowość samochodów marki Tesla, które otrzymały w aktualizacji oprogramowanie autopilota, spadła o 40% (badania przeprowadzone przez NHTSA). Drugim argumentem, jaki słyszę często jest ten, iż oprogramowanie jest oprogramowaniem i jest podatne na ataki cyberterrorystów. Jednakże warto w tym miejscu zauważyć, iż sygnalizacja świetlna jest również sterowana przez system czasu rzeczywistego, który można zhakować. Próby takie nie zostały podjęte z prostych powodów. Najsłabszym ogniwem tandemu człowiek-maszyna, jest zawsze człowiek i łatwiej jest porwać ciężarówkę i staranować nią świąteczny jarmark, niż bawić się w łamanie zabezpieczeń. O wrażliwości człowieka, jako ogniwa systemu ochrony, wie każdy haker. Samoloty, które wleciały w budynki biurowe 11 września 2001 r., mogły również wykonać swoją misję w trybie automatycznym, jednakże nie było to konieczne. Wreszcie trzecim i ostatecznym argumentem, który miałby być gwoździem do trumny zautomatyzowanych pojazdów, jest argument filozoficzny, znany jako problem wagonika zaproponowany przez Philipę Foot. Ten eksperyment myślowy z dziedziny etyki wygląda następująco: Stoisz przy rozjeździe kolejowym, który właśnie minąć ma rozpędzony pociąg. Przed Tobą na torach stoi pięć niespodziewających się niczego osób, które ów pociąg niechybnie rozjedzie. Chyba, że przełączysz dźwignię rozjazdu i skierujesz pociąg na boczny tor, na którym stoi jedna osoba. Wszyscy badani zgodzą się tutaj, iż uratowanie pięciu żyć kosztem jednego jest zdecydowanie bardziej etyczne. Problem ten przełożony na realia XXI w. i autonomicznych pojazdów brzmi tak samo i tutaj wszyscy badani są tak samo zgodni. Należy ratować pięć żyć kosztem jednego... z małym jednak zastrzeżeniem, iż to jedno nie będzie ich... ”Ha ha”. Tak, stary dobry egoizm i instynkt przetrwania. Okazało się bowiem w toku badań, że klienci nie będą zbyt chętni na kupno samochodu, który nie będzie ratował ich życia w pierwszej kolejności. Jednak ten argument ma według mnie dwa poważne problemy, aby go zastosować. Po pierwsze jest eksperymentem myślowym - scenariuszem skrajnego przypadku, który w rzeczywistości na ogół nie ma miejsca. Po drugie, aby go zdyskwalifikować, wystarczy przeczytać jego kolejne warianty. W następnym wariancie tego samego problemu stoisz na kładce nad torem, pociąg ma rozjechać owe pięć osób, chyba że zepchniesz na tor stojącego koło Ciebie grubasa i wykoleisz w ten sposób pociąg. W tym przypadku zasada ratuj jak najwięcej istnień nie jest już tak oczywista i niewiele osób decyduje się na taki krok. A co, jeśli ten grubas to złoczyńca, który pierwotnie umieścił te pięć osób na torach? Jasne staje się, iż w ocenie etycznej, co do ratowania zdrowia lub życia, której za wszelką cenę nie chcielibyśmy oddać zaawansowanej maszynie, sami jesteśmy FATALNI. Subiektywni i nieprzewidywalni podczas działania w stresie, a do tego poprzez swoje wady doprowadzamy umyślnie lub nieumyślnie do koszmarów bliskich eksperymentom myślowym, które sami płodzimy w swoich głowach. 19 grudnia 2016 r. w przedświąteczny wieczór młody człowiek kierowany bardzo niebezpieczną ideologią porywa ciężarówkę i rozpędza ją wprost w świąteczny jarmark pełen ludzi. Szczęśliwie pojazd, którym zamierza sięgnąć po maksymalną ilość żyć, to Scania R450, a w 2012 roku UE nakazała, aby każdy ciągnik siodłowy o masie większej niż 3,5 tony posiadał system zabezpieczający przed kolizjami. Rozpędzony 40 tonowy zestaw zatrzymuje się po przejechaniu 70 metrów, ponieważ system automatycznego hamownia wykrył kolizję i zignorował działania kierowcy uruchamiając hamulce. Zamach pozbawił życia 16 osób. Jednakże podobny atak terrorystyczny zrealizowany w lipcu tego samego roku w Nicei z użyciem 19 tonowego Renaut Midlum pozbawionego tego typu systemu, pochłonął życia 80 osób.

Obraz, jaki się wyłania z powyższego tekstu, skutecznie skompresował w jeden argument filozof ewolucyjny Daniel C. Dennett. Czy gdyby zbudować robota, który specjalizowałby się w niańczeniu dzieci, zatrudniłbyś taką maszynę? Niania – android nigdy by się nie upiła, nie dopuściła zaniedbań z powodów osobistych lub czystego lenistwa, więc dlaczego nie? Zdaje się, że podobne słowa usłyszeliśmy z ust Sary Connor – postaci z filmu Terminator argumentującej, iż maszyna z przyszłości byłaby lepszym ojcem dla jej dziecka. Ludzie patologicznie boją się determinizmu i rzadko chcą przyznać się do swojego. Określenie „przewidywalny” jest używane często w znaczeniu pejoratywnym jako synonim dla „nudny”. Cała ta fasada jednak wali się niczym domek z kart, gdy tylko potrzebujemy opiekunki do dzieci. Wybieramy tę najbardziej przewidywalną i próbujemy się ratować starą jak świat koncepcją niezdeterminowanego determinizmu, czyli ducha w maszynie. Niestety mamy XXI wiek i wiemy już, że Kartezjusz się mylił rozdzielając mózg i umysł. Umysł to tylko to, co mózg robi, iluzja nad którą nie będziemy się dalej rozwodzić.

Nasze twory zastępują nas na coraz szerszym polu kompetencji zawodowych, ponieważ w odróżnieniu od nas są projektem, który potrafimy pozbawić naszych wad. Cóż więc pozostanie ludziom do roboty, gdy samochody zaczną jeździć lepiej od ludzi, elektroniczne nianie skuteczniej wychowywać dzieci itd.? Natrafiamy tutaj na kolejny strach ludzkości oprócz przedstawionych przeze mnie wyżej. Prawdziwy fetysz będący kultem pracy, służącej podtrzymaniu egzystencji, która to z kolei ma służyć pracy. To błędne koło obraca się w głowach wielu konserwatywnie nastawionych do życia osób i tak, jak w przypadku szoku związanego z autonomicznymi samochodami, tak tutaj o ból głowy przyprawia ich myśl, że w przyszłości może nie być zawodu, który mogliby wykonywać za pieniądze. Ludzie ci widzą trend znikających powoli z rynku pracy kolejnych zawodów jako skutek uboczny rewolucji przemysłowej i informacyjnej, podczas gdy cały czas był on celem samym w sobie. Bądźmy szczerzy, zawód praczki czy ceglarza, choć nadal możliwy do wykonywania, nie cieszy się z oczywistych powodów popularnością. Spekuluje się iż wynalezienie pralki dało kobietom więcej wolności niż tak wielkie osiągnięcia, jak pigułka antykoncepcyjna, prawo do aborcji, czy prawo do głosowania. Choć to kontrowersyjna teza, nie trudno sobie wyobrazić, że śladami praczek pójdą stenotypistki, a ceglarzy monterzy. Wszystkim zaniepokojonym, co będą robić, gdy ich zawód nie będzie już potrzebny, odpowiadam: Co chcecie. Szukanie własnej drogi w życiu to domena ludzi wolnych i do tej wolności cały czas dążymy. Oczywiście w niedalekiej przyszłości nadal będziemy mieli prawników, ogrodników, policjantów i tym podobnych pracowników, gdyż maszyny, choć dobre w wykonywaniu powtarzalnych prac, nadal słabo radzą sobie w zadaniach wymagających doświadczenia i rozpoznania nowych wzorców. Gdy piszę ten tekst, Finlandia wprowadza pilotażowy program tak zwanego Dochodu Gwarantowanego. Idea wynika ze świadomości fińskich elit rządzących (nasze niestety patrzą w przeszłość, a nie w przyszłość), iż bezrobocie będzie nadal wzrastać z powodu wysokiej produktywności i zmniejszającego się katalogu zawodów, jakie człowiek mógłby wykonywać. Jest to bezwarunkowy dochód podstawowy umożliwiający przetrwanie i uwalniający człowieka z błędnego koła o którym wspomniałem wyżej dając jednocześnie prawo wyboru. Brzmi nieźle, niemal tak dobrze jak wynalezienie pralki i uwolnienie kobiet z całodniowego kieratu, prawda? Dodatkowo jest wykonalne i eliminuje szereg problemów społecznych. Jednak nie tak zaczynają się scenariusze thrillerów science fiction.

Dobry film s-f zaczyna się mniej więcej tak: W roku 2XXX ludzie budują wojskowy superkomputer, by dzięki kontroli nad destruktywną bronią chronił ludzkość. Następnie ten uzyskuje świadomość, jest wysoce niezadowolony i eutanuje ludzkość za pomocą tej lub wyprodukowanej przez siebie broni… OK. Istnieje setka powodów, dla których nie można brać kinematografii poważnie. Oczywiście w rzeczywistości nie buduje się systemów, które potrafią wywołać III Wojnę Światową, a których nie da się wyłączyć, ani obejść. W naukach technicznych nie istnieje też element magii, który powołałby do życia świadomą maszynę. Nie dałoby się też tego faktu ukryć przed jej konstruktorami, ani ich nim zaskoczyć. Co jednak najbardziej istotne, świadomość nie jest tutaj wcale istotna. Tak samo, jak nie jest istotna w świecie naturalnym. Karaluch potrafi orientować się w otaczającym go świecie, omijać przeszkody, unikać drapieżników i znajdować pożywienie, podobnie zresztą jak autonomiczny odkurzacz iRobot. Musimy sobie zdać sprawę z tego, iż pierwsze maszyny, które przejdą test Turinga, wcale nie będą posiadały świadomości. W minionym 2016 roku świat obiegła wiadomość, że sztuczna inteligencja AlphaGo stworzona przez Google wygrała z wielokrotnym mistrzem świata Le Sedolem. W 2011 roku SI Watson stworzony przez IBM zwyciężył z najlepszym dotychczasowym graczem w teleturnieju Jeopardy. No a co z Deep Blue, który 20 lat temu zwyciężył z Kasparovem w szachy? Czy którykolwiek z tych rozbudowanych systemów wiedział, że wygrał? Większość zwierząt naszej fauny świadomości (w ludzkim rozumieniu) nie posiada, a radzą sobie całkiem dobrze wykonując całkiem skomplikowane zadania (na przykład nawigacja i komunikacja owadów), które wymagały niejednej tęgiej głowy, aby je poznać i zrozumieć. Uspokajająca informacja dla przerażonych scenariuszami filmów w których inteligentne maszyny mordują ludzi oraz dla zwolenników tak zwanej słabej SI. Jednakże istnieje jeszcze zgrzyt miedzy nimi, a zwolennikami tak zwanej mocnej SI. Tych zaatakowano argumentem „Chińskiego pokoju” – eksperymentu myślowego zaproponowanego przez Johna Searle’a. Polega on na wyobrażeniu sobie człowieka posługującego się zestawem reguł operowania znakami języka chińskiego, którego nie zna siedząc w zamkniętym pokoju. Natomiast osoby stojące za drzwiami i czytające wiadomości od niego mają być pod wrażeniem jego znajomości chińskiego. Argument ma dowodzić, iż maszyna wykonująca program symulujący znajomość chińskiego, nie może go zrozumieć. Jeśli argument ten choć przez chwilę wydał ci się atrakcyjny, to od razu muszę napisać, że jest pułapką. Po pierwsze, jak zauważa Daniel C. Dennett w swojej książce „Consciousness Explained”, w argumencie tym wprowadza się w błąd osobę wyobrażającą sobie tę sytuację, iż prosty system oparty o manipulację symbolami przechodzi test Turinga. Po drugie, jak zauważa Włodzisław Duch i co jest bardziej istotne dla przedstawionych przeze mnie wyżej dywagacji, argument jest nieistotny. Jak powiedział kiedyś Turing „O umysłach innych ludzi wiemy tylko z obserwacji, więc jeśli program przejdzie test i nie uznamy, że myśli, pozostanie nam tylko solipsyzm”. Czyli innymi słowy to, czy maszyna tak naprawdę rozumie co robi, nie ma większego znaczenia tak samo, jak nie znamy procesów zachodzących w mózgu stojącej naprzeciwko nas osoby, a widząc tylko część wejść i wyjść uznajemy, że myśli. Tylko czy myśli? Spróbuj odgadnąć jaka będzie Twoja kolejna myśl… Nie możesz. Twoje myśli spontanicznie pojawiają się w Twojej świadomości. Jesteś niejako ofiarą autonomicznej pracy swojego mózgu, a ten (co dowiedziono naukowo), na kilkadziesiąt milisekund przed Twoją świadomą reakcją wie, jaka ona będzie. Tak więc, co to za maszyna która „naprawdę myśli”? To maszyna magiczna, taka jak SkyNet w Terminatorze, czy HAL9000 w Odysei Kosmicznej. Byłem przynajmniej kilkukrotnie kontrargumentowany na FB odnośnie sztucznej inteligencji, gdy skreślałem kartkę z napisem „Tylko człowiek potrafi skomponować uwerturę” podając za przykład Emily Howell, co nie wszystkim się podobało. Emily Howell jest kompozytorką muzyki poważnej z tym elektryzującym drobiazgiem, że nie jest człowiekiem. Jest botem, który potrafi skomponować muzykę nieodróżnialną w odsłuchu od tej stworzonej przez człowieka. Potrafi nawet sensownie wypowiedzieć się o swojej twórczości. Kontrargument na kreatywność tej elektronicznej inteligencji był taki, że Emily nie jest świadoma i że algorytmy uruchomione na mikrokomputerze, czyli maszynie deterministycznej, nie mogą wygenerować żadnej nowej treści. Kwestię zasadności istnienia świadomości w elektronicznym mózgu Emily pominę, gdyż pisałem o tym wyżej odnośnie świata naturalnego. Natomiast drugi kontrargument jest bardzo interesujący, gdyż na pierwszy rzut oka trudno się z nim nie zgodzić Gdyby jednak pomyśleć nad nim dłużej, jest jedynie urazem do nauk statystycznych, które generalizują informacje. Z jednej strony komputery nie muszą wcale działać tylko w oparciu o determinizm, jako przykład można podać analogowe systemy neuromorficzne. Z drugiej natomiast strony kwestia skali, czy dokładności, ma tutaj bardzo duże znacznie. Jak mawiał mój profesor od metod SI: „Funkcja losująca daje na tyle losowe liczby, na ile użytkownik uważa, iż są losowe”. Wszystko więc sprowadza się do tak dokładnej symulacji pewnej funkcjonalności, aż symulacja się nią staje – The imitation game.

Jeśli jednak świadomość jest tym, czego spodziewałbyś się po sztucznej inteligencji przyszłości, to budowa maszyny, którą cechować będą qualia, jest w przyszłości możliwa. Od początku XXI w. zrobiliśmy niemałe postępy w badaniach nad pamięcią roboczą, skojarzeniową, emocjami oraz subiektywnymi świadomymi doświadczeniami. Jednakże budowa takich retrospektywnych, świadomych swoich doświadczeń i posiadających partykularne interesy maszyn nie leży w moim mniemaniu po drodze w żadnym z kierunków (może poza badawczymi) realizacji dobra publicznego. Mamy ponad 7 miliardów odczuwających, radujących, smucących się, popadających w histerię, furię, obłęd, odczuwających zazdrość, miłość istnień. Po co więc olbrzymimi nakładami wieźć drzewo do lasu?

No dobrze, przyjmijmy jednak logikę przyjętą w scenariuszu filmu Prometeusz. Ludzie tworzą świadomą sztuczną inteligencję po prostu „bo mogą”, jak androida w filmie. Mają taki kaprys niczym bogowie greccy, czują się samotni lub chcą się nieco poznęcać potem nad swoimi tworami, jak Bóg Starego Testamentu. Na horyzoncie pojawia się więc już ostatni strach, jaki dziś przedstawię – osobliwość. Czym jest owa osobliwość? To taki zaproponowany przez Vernora Vinge, hipotetyczny punkt w rozwoju technologii, od którego nasze przewidywania co do jej rozwoju stałyby się nieaktualne. Czynnikiem do tego doprowadzającym miałoby być powstanie SI, która przekroczy szybkością swojego rozwoju rozwój intelektualny ludzi. Doprowadziłoby to do lawinowych zmian w świecie techniki. Istnieją naukowcy i badacze, których ta perspektywa przeraża. Widzą w niej koniec naszej cywilizacji. Argument na rzecz takiego scenariusza Sam Harris przedstawia w formie tezy, iż nie możemy być pewni, jaką drogą rozwoju pójdzie intelektualnie przewyższająca nas sztuczna inteligencja. Może popadnie w psychozę i utopi ludzkość w powodzi jak Jahwe? Osobiście widzę w tym argumencie strach przed czymś, co nas przerasta. Jesteśmy dominującym gatunkiem na Ziemi i nawet, gdybyśmy mieli z tego powodu zabijać, wolimy takim pozostać. Lubimy myśleć o sobie bardzo dobrze. Perspektywa koegzystencji z superinteligencją przeraża nas, niczym przepowiednia Majów. Poza tym (co jest bardziej istotne) zakładanie, iż superinteligencja potraktuje nas (jak argumentuje Harris), jak my traktujemy mrówki, jest nieco intelektualnie niedojrzała. Jako ludzie na aktualnym etapie rozwoju traktujemy gatunki niższe bardziej brutalnie nie dlatego, że mamy mózgi psychopatów, tylko dlatego, że postęp i wiedza to zasoby kumulacyjne. Dzięki nauce i wiedzy z niej wynikającej potrafimy skalibrować swój kompas moralny odpowiednio i nie mieć większych oporów moralnych, by zdeptać mrówkę, natomiast cykliczny ubój bydła hodowlanego uznawać za tak urągający godności ludzkiej, by od kilku lat rozwijać inżynierię produkcji syntetycznego mięsa. Superinteligencja zapoczątkowana przez człowieka w moim mniemaniu będzie na tyle „super”, iż będzie w stanie pojąć koncepcję empatii, altruizmu, bólu, śmierci, nawet jeśliby te koncepcje nie dotyczyły jej bezpośrednio. W bardzo interesujący sposób rozważa kwestię relacji osobistej człowieka z superinteligencją film „Her” z 2013 roku. Choć na potrzeby celuloidu kończy się złamanym sercem, to jednak nie kończy się złamanym karkiem. Pewien naukowiec aktywnie działający na polu neurobiologii przyznał się niedawno, iż nauka o tym, jak działają mózgi innych osób, uczyniła go liberałem. Wiedząc, jak inni myślą i dlaczego, nie był w stanie utrzymać swoich konserwatywnych wymagających pewnej izolacji poglądów. Wiedza wyzwala, a inteligencja zobowiązuje.

Data/Tropyx